Vị trí của Nhà hát Lớn Hà Nội xưa kia là một vùng đầm lầy thuộc đất của hai làng Thạch Tần và Tây Luông, giáp gianh với làng Cựu Lâu, thuộc tổng Phúc Lân (hay tổng Hữu Túc[6]), huyện Thọ Xương.[7] Năm 1808, một trường đúc tiền (tên chữ Hán: Bảo truyền cục) được thành lập tại khu vực này, với phía bắc là phố Tràng Tiền ngày nay, nam là phố Phạm Sư Mạnh, Đông là phố Phan Chu Trinh và tây là phố Ngô Quyền. Phía đông bắc của đầm lầy nhà hát ngày xưa là cửa ô tên Tây Long (hay Tây Luông), lấy theo tên của bến đò thời Lê đậu ở bãi sông cùng tên. Ngày 20 tháng 7 năm 1786, quân Tây Sơn tiến vào thành Thăng Long qua bến sông và cửa ô này đã đánh vào trận địa của chúa Trịnh Khải ở hai bên lầu Ngũ Long (trung tâm Bưu điện Hà Nội ngày nay). Bến sông này cũng là nơi chứng kiến cuộc rút chạy ngày 30 tháng 1 năm 1789 (mùng 5 Tết Kỷ Dậu) của quân nhà Thanh do Tôn Sĩ Nghị chỉ huy sau thất bại đồn Khương Thượng trước đô đốc Long.

Ngay từ khi mới tới Hà Nội vào năm 1883, người Pháp đã sớm có ý định xây dựng ở thành phố này một địa điểm dành cho trình diễn nghệ thuật. Rạp hát đầu tiên được mang tên rạp Chùa Bút nằm ở khoảng đất trống trước cửa đền Ngọc Sơn, ảnh hưởng bởi công trình Tháp Bút ở gần đó.[8] Vào năm 1887, nhân dịp hội chợ trên phố Tràng Thi, một hiệu buôn Hoa kiều đã cho xây dựng ở đầu phố Hàng Cót – khi đó mang tên phố Takou – một rạp hát chuyên diễn tuồng Tàu. Mặc dù vậy, rạp hát này lại được một bác sĩ người Pháp tên Nico đứng tên và đôi khi cũng dành cho các đoàn nghệ thuật từ Pháp sang trình diễn. Rạp Takou, tuy không phù hợp cho các hoạt động nghệ thuật Tây phương, nhưng chính là rạp hát đầu tiên ở Hà Nội theo kiểu Tây phương.[9]

Vào năm 1899, Hội đồng thành phố dưới sự chủ tọa của Công sứ Hà Nội Richard đã đề nghị lên Toàn quyền Đông Dương, xin xây dựng một nhà hát cho thành phố.[10] Vị trí lựa chọn là khu vực đầm lầy thuộc hai làng Thạch Tần và Tây Luông. Đồ án thiết kế được xét duyệt là của hai kiến trúc sư người Pháp Broyer và V. Harley, họa theo hình dáng nhà hát Opéra Garnier nổi tiếng ở Paris. Trong công đoạn xây cất thì có sự tham gia của kiến trúc sư François Lagisquet chỉnh trang sửa chữa thêm họa đồ. Với kinh phí lên đến 2 triệu franc, dự án Nhà hát thành phố ở Hà Nội đã gây nên tranh cãi trên một số báo chí tại Pháp thời đó.[11] Ngày 7 tháng 6 năm 1901 thì khởi công xây dựng do hai hãng thầu Travary và Savelon đứng thầu, kiến trúc sư Harley giám sát. Harley lúc bấy giờ cũng là thanh tra đô thị của Hà Nội.[9] Vì xây dựng trên một vũng lầy nên việc san lấp mặt bằng gặp khá nhiều khó khăn. 35 nghìn cây cọc tre được đóng xuống trước khi đổ lớp bê tông dày 0,9 mét làm nền tòa nhà.[7] Phần móng được xây bằng đá tảng; khu vực sân khấu sử dụng gạch chịu lửa để đề phòng hỏa hoạn, phần mái nhà lợp bằng phiến thạch trang trí kẽm thếp vàng, đường vòng quanh mái trang trí gạch tráng men.[9] Công trình sử dụng tới 12.000 m³ vật liệu, gần 600 tấn gang thép, với khoảng 300 công nhân tham gia thi công mỗi ngày.[10]

Sau 10 năm xây dựng, Nhà hát thành phố được khánh thành. Để gắn tên mình với sự kiện này, nhóm kịch nghiệp dư Philarmonique của những người Pháp tại Hà Nội khi đó đã tập một vở hài kịch. Công trình tuy đã hoàn thành nhưng sân khấu lúc bấy giờ vẫn thiếu màn kéo, phông cảnh. Để khắc phục, đoàn kịch đã lấy vải thô may lại rồi vẽ hình hồ Gươm cùng tháp Rùa để làm màn kéo. Nhà hát dùng tấm màn này 16 năm cho đến khi được thay thế bằng một tấm màn vải sa tanh, và tới năm 1932, nhà hát mới trang bị màn nhung theo kiểu sân khấu của Ý. Tối ngày 9 tháng 12 năm 1911, lễ khai trương nhà hát bắt đầu với vở hài kịch bốn hồi Le Voyage de monsieur Perrichon (Chuyến đi của ông Perrichon) của Eugène Labiche và Édouard Martin. Số tiền thu được từ buổi biểu diễn được nhóm kịch Philarmonique ủng hộ cho những trẻ em lai sống lang thang trên phố.[9]

Khi hoàn thành với 870 chỗ ngồi, Nhà hát Lớn Hà Nội là một công trình quy mô rất lớn nếu so với dân số Hà Nội khi đó.[7] Nhà hát trở thành trung tâm các sự kiện văn hóa, nghệ thuật dành cho người Pháp và một số ít người Việt thượng lưu ở Hà Nội. Đây cũng là địa điểm biểu diễn lý tưởng cho các đoàn kịch, ban nhạc từ Pháp và châu Âu tới lưu diễn.[9] Khoảng thời gian về sau, một số buổi trình diễn của các nghệ sĩ người Việt với mục đích từ thiện như quyên góp cứu nạn các vùng lụt lội, xây dựng nhà tế bần... cũng bắt đầu được trình diễn ở đây. Từ năm 1940, nhiều đoàn kịch nói Việt Nam đã có thể thuê lại nhà hát để biểu diễn. Từ đó Nhà hát Lớn Hà Nội không còn là địa điểm chỉ dành cho người Pháp. Sự hình thành tầng lớp thị dân cùng trí thức mới đã biến nơi đây thành cái nôi cho nhiều sinh hoạt nghệ thuật của người Việt.[8] Không chỉ là một địa điểm văn hóa, Nhà hát Lớn Hà Nội cùng quảng trường Nhà hát còn là nơi diễn ra nhiều sự kiện lịch sử quan trọng. Vào ngày 17 tháng 8 năm 1945, trên quảng trường Nhà hát đã diễn ra cuộc mít tinh ra mắt Mặt trận Việt Minh[13]. Ngày 28 tháng 8 năm 1945 đã diễn ra một trong những cuộc duyệt binh đầu tiên của Việt Nam Giải phóng quân, tiền thân của Quân đội Nhân dân Việt Nam.[14] Ngày 16 tháng 9 năm 1945, Hồ Chí Minh đã phát động Tuần lễ vàng quyên góp ủng hộ Chính phủ tại Nhà hát Lớn. Quốc hội nước Việt Nam Dân chủ Cộng hòa khóa I họp phiên đầu tiên ở nhà hát vào ngày 2 tháng 3 năm 1946[4] và tiếp tục ở đây cho đến năm 1963, khi Hội trường Ba Đình được xây dựng.[8][10]

Cuối thế kỷ 20, Nhà hát Lớn Hà Nội sau hơn 80 năm tồn tại đã rơi vào tình trạng xuống cấp trầm trọng. Phần chân tường nhà hát phủ đầy rêu phong, nhiều chỗ mái ngói bị thay thế bằng mái tôn.[11] Bên trong, các trang trí, vật liệu, màu sắc, tiện nghi phục vụ và thiết bị kỹ thuật quan trọng đều quá cũ kỹ, lạc hậu. Nhiều hoa văn bị quét vôi phủ kín trong những lần sửa chữa trước đó.[9] Xung quanh quảng trường ngày càng xuất hiện nhiều các công trình không phù hợp, khiến phá vỡ không gian kiến trúc của nhà hát.[10]

Giữa thập niên 1990, để chuẩn bị cho Hội nghị thượng đỉnh Cộng đồng Pháp ngữ lần thứ 7 diễn ra tại Hà Nội vào tháng 11 năm 1997,[15] Chính phủ Việt Nam đã quyết định trùng tu Nhà hát Lớn với kinh phí 156 tỷ đồng, tương đương khoảng 14 triệu đô la.[7] Dự án được bắt đầu năm 1995 và hoàn thành 2 năm sau đó với sự tham gia của 100 nhân công và dưới sự giám sát của kiến trúc sư người Pháp gốc Việt Hồ Thiệu Trị, tác giả đồ án trùng tu.[11]

Năm 2011, Nhà hát Lớn Hà Nội cùng quảng trường Cách mạng tháng Tám đã được Bộ Văn hóa, Thể thao và Du lịch công nhận di tích lịch sử và kiến trúc quốc gia.[16] Ngày 9 tháng 12 năm 2011, Nhà hát Lớn Hà Nội kỷ niệm 100 năm ngày nhà hát ra đời.[17]